href="ch2-213.xhtml#id155" class="a">[213]. Система буквально переписала правила, которым следуют люди.

Возможно, возникнет соблазн пренебречь этим различием и сказать, что экономисты просто должны признать – «нестандартные» задачи теперь могут быть автоматизированы. Однако то, почему эти экономисты были неправы, тоже имеет значение. Сам факт того, что эти системы могут не следовать тем же правилам, что и люди, создает для них новые возможности, как это было в случае с AlphaGo, ошеломившей Ли Седола, – и это тоже проблематично. Например, одним из достоинств систем, разработанных во время первой волны ИИ, была их «прозрачность». Они следовали четким правилам, установленным людьми, и наблюдателю было легко понять, почему система принимает то или иное решение, будь то ход в игре или постановка медицинского диагноза. Во второй волне ИИ системы стали гораздо менее «прозрачными». Например, изначально было совершенно непонятно, почему AlphaGo решила сделать беспрецедентный тридцать седьмой ход, и разработчикам системы пришлось тщательно проанализировать сложные вычисления, прежде чем они смогли понять смысл принятого ею решения.

Эта новая непрозрачность подтолкнула исследователей помочь системам искусственного интеллекта «объяснить себя»[214]. На нее уже попытались отреагировать и на государственном уровне. В ЕС, например, статья пятнадцать нового Общего регламента по защите данных предоставила гражданам право получать «содержательную информацию о логике автоматизированного принятия решений»[215]. В настоящий момент европейские политики считают, что эта информация отсутствует.

Заблуждение искусственного интеллекта

В различных случаях, описанных выше, ученые-компьютерщики и экономисты совершали то, что мой отец и я стали называть «заблуждением ИИ»: ошибочное убеждение, что единственный способ разработать машины, выполняющие задачу на уровне человека, состоит в копировании способа, которым люди выполняют эту задачу[216]. Это заблуждение, широко распространенное и по сей день, определяет представления многих людей о технологиях и работе.

Врачи, например, обычно не соглашаются с утверждением, что машина когда-нибудь сможет диагностировать болезни так же хорошо, как и они. Машина, говорят они, никогда не сможет формулировать «суждение», которое требует инстинкта и интуиции, способности смотреть пациенту в глаза, осуществлять личный контакт, применять личный опыт. Ничто из этого никогда не получится записать в набор инструкций для машины. Королевский колледж врачей общей практики, профессиональная организация врачей в Великобритании, заявляет, что «ни одно приложение или алгоритм не смогут делать то, что делает врач-терапевт… исследования показали, что у терапевтов есть «внутреннее чутье», когда они просто понимают, что с пациентом что-то не так»[217]. Вполне возможно, что так оно и есть. Однако это не означает, что машины не могут выполнять задачи врачей: они могут сделать это, действуя совершенно иначе. Система анализа родинок, разработанная в Стэнфорде, не повторяет процесс «суждения» и не пытается воспроизвести их «внутреннее чутье»; скорее всего, она вообще ничего не «понимает» в дерматологии. Тем не менее она может определить, является ли родинка раковой опухолью.

Архитекторы между тем могут сказать, что машина никогда не сможет спроектировать инновационное или красивое здание, потому что не бывает «творческих» компьютеров. Но обратим внимание на Эльбскую филармонию в Гамбурге, в которой есть удивительно красивый концертный зал, состоящий из десяти тысяч взаимосвязанных акустических панелей. Такое пространство заставляет инстинктивно думать, что только человек – притом наделенный удивительно тонкой творческой чувствительностью – может создать нечто столь эстетически впечатляющее. Однако в действительности концертный зал был спроектирован при помощи алгоритмов и техники, известной как «параметрический дизайн». Архитекторы задали системе набор критериев (например, пространство должно было иметь определенные акустические свойства и любая панель, к которой мог прикоснуться зритель, должна иметь определенную текстуру), и она предложила архитекторам на выбор ряд возможных проектов. Аналогичное программное обеспечение было использовано для разработки легких велосипедных рам, более прочных стульев и многого другого[218]. Ведут ли эти системы себя «творчески»? Нет, они используют большую вычислительную мощность, чтобы слепо генерировать различные возможные проекты, и работают при этом совсем не так, как человек.

Или возьмем еще один пример. В 1997 году, всего через несколько месяцев после того, как компьютер Deep Blue обыграл Каспарова в шахматы, произошла вторая победа ИИ, о которой многие забыли. Зрители, собравшиеся в Университете Орегона, услышали фортепианную пьесу, которую сочли подлинным сочинением Баха, – но на самом деле ее написала компьютерная программа EMI, изобретенная композитором Дэвидом Коупом. Может быть, эта машина действовала «творчески», сочиняя композицию? Один профессор теории музыки университета заявил, что вся эта история «приводит в замешательство»[219]. Дуглас Хофштадтер, организатор музыкального эксперимента, назвал EMI «самым глубокомысленным проектом в области искусственного интеллекта, с которым я когда-либо сталкивался», и признался, что почувствовал себя «озадаченным и обеспокоенным»[220]. Если бы эту пьесу написал человек, мы без колебаний использовали бы эпитет «творческий». Но как бы ни была прекрасна композиция, все равно кажется неправильным использовать этот термин для описания того, что сделала компьютерная программа. EMI не пришлось, как однажды написал Хофштадтер о сочинительстве, «блуждать по всему миру в одиночестве, пробиваясь сквозь лабиринт жизни и чувствуя каждое ее мгновение», прежде чем она села и превратила эти чувства в ноты[221]. Машина выполнила свою задачу совсем иначе.

Это привлекательный ход мысли: раз машины не могут рассуждать как мы, то они никогда не смогут высказывать суждений; раз они не могут думать как мы, они никогда не будут творить; раз они не могут чувствовать как мы, они никогда не будут испытывать эмпатию. Возможно, так и есть. Но такой подход не учитывает, что машины, вероятно, смогут выполнять задачи, требующие сочувствия, суждения или творчества, когда их выполняет человек, – просто совершенно иным способом.

Ниспровержение интеллекта

Согласно греческой мифологии, древние боги жили на горе Олимп. Наделенные замечательными способностями, они сидели на вершине и смотрели на обычных людей внизу. Однако если смертные были исключительно доблестными или выдающимися, они тоже могли уподобиться богам: в процессе, который греки называли апофеозом, они поднимались на гору и занимали свое место на вершине. Это случилось, например, с греческим героем Гераклом. В конце своей жизни он был вознесен на Олимп, чтобы жить рядом с божествами: «ныне ж, бесстаростным ставши навеки, живет без страданий»[222].

Сегодня многие из нас, кажется, воображают, что люди сидят на вершине своей собственной горы. Мы не считаем себя богами, но считаем себя способнее любого другого живого существа. Многие люди полагают, что если машина, стоящая у подножия горы, присоединится к нам, то она тоже должна пройти через апофеоз – не для того чтобы уподобиться богу, а чтобы стать больше похожей на человека. Это пуристский взгляд на ИИ. Как только машина обретает